RAG, automatización y memoria
2026-01-12
Cuando ya debemos pasar de la interacción un poco más simple e intentar estabilizar lo que obtenemos desde los LLM’s.
Los LLM’s son probabilísticos, no deterministas.
El mismo prompt → resultados distintos
Sensibles a:
¿Que implica esto?
Aquí ocurre el quiebre conceptual
El prompt:
📌 Analogía potente
Usar solo prompts es como entrenar un modelo “de memoria” cada vez.
No buscamos:
Buscamos:
📌 Cambio de foco
LLM como componente, no como oráculo
Qué problema resuelve
Qué hace RAG
Separa:
📌 El RAG no inventa, recupera
RAG transforma un LLM genérico en un sistema experto contextual.
Recuperada en: https://mindfulmatrix.substack.com/p/build-a-simple-llm-application-with?utm_source=chatgpt.com
Problema:
Automatizar implica
Ejemplo generado dentro del curso
System Instructions
Role: You are a highly intelligent and accurate sentiment analyzer.
Task: Analyze the sentiment of the provided text and categorize it into one of the following classes:
Output Rules
Output Format Constraint
JSON Schema ComplianceSchema:
{
"$schema": "http://json-schema.org/draft-07/schema#",
"type": "object",
"properties": {
"sentiment": {
"type": "string",
"enum": ["Positive", "Neutral", "Negative"]
},
"strength": {
"type": "number",
"minimum": 0,
"maximum": 1,
"description": "Strength score for sentiment in relation to the category"
},
"confidence": {
"type": "number",
"minimum": 0,
"maximum": 1
}
},
"required": ["sentiment", "strength", "confidence"],
"additionalProperties": false
}
Sin automatización, la IA es solo una herramienta; con automatización, es un sistema.
El paso posterior a esto es la construcción de agentes en donde el LLM opera como un orquestador de distintas herramnientas, que pueden ser tan simple como una calculadora o más compleja como otro LLM, entre otras.
Qué NO es memoria
Qué SÍ es memoria
Tipos
Aquí está la tesis completa
🎯 Mensaje central:
La estabilidad no viene del prompt, sino del sistema.
🛬 Aterrizaje ejecutivo
📌 Cambio de mentalidad:
No implementar IA → diseñar sistemas con IA.
El futuro de la IA no es escribir mejores prompts, es diseñar mejores sistemas.
Gandhi, S. (2024, April 7). Building LLM application using RAG: How to query your document using LLM. Mindful Matrix. Retrieved from https://mindfulmatrix.substack.com/p/build-a-simple-llm-application-with
© Sebastián Egaña Santibáñez